背景与目标

Qwen3.5-35B-A3B 是 MoE 模型。原有 NPU FusedMoE 路径将专家路由、跨 rank token dispatch、专家 FFN、激活和 combine 拆成多个阶段，带来额外的 kernel launch、中间张量读写以及通信与计算衔接开销。

CANN 9.1 ops-transformer 提供 MegaMoe，将 MC2 通信与专家 FFN 组合到统一算子路径。本 PR 将该算子接入 xLLM，为 A3 上的 Qwen3.5 decode 优化提供基础，同时保留不满足能力条件时的原有 FusedMoE fallback。

接入方案

1. 配置与能力判断

• 增加 MegaMoe 配置开关和 kernel 配置解析。
• 在 mega_moe_policy 中集中检查平台、模型、dtype、shape、EP 拓扑和算子可用性。
• EP size 不硬编码为 16；只要 EP 为正数、能够整除专家数且满足算子约束，即可进入 MegaMoe 路径。
• 未通过能力检查时继续使用原有 FusedMoE 实现。

2. ProcessGroup 级通信资源

• 新增 MegaMoeCommResource，由 NPU ProcessGroup 管理 KFC/HCCL context、远端 window 和拓扑信息。
• 通信资源按通信域复用，避免每层重复初始化 communicator。
• 初始化时校验 rank、buffer span、对齐和边界。
• KFC context 在初始化后保持只读，可由多层复用；forward 不再增加跨层 launch fence。

3. ACL 算子适配

• 增加 MegaMoe ACL contract，调用 aclnnMegaMoeGetWorkspaceSize 与 aclnnMegaMoe。
• 明确可选输入、输出顺序、top-k dtype、权重 shape 和 topology 参数。
• 校验 workspace 和 execute 符号必须来自同一份 MegaMoe vendor，避免标准 OPP 与外置 vendor 的 ABI 混用。

4. FusedMoE 运行时接入

• fused_moe 根据 policy 选择 MegaMoe 或原有 fallback。
• mega_moe_runtime 整理本地专家权重、输入、FP32 top-k 权重、通信 context 和输出张量。
• 支持 attention data parallelism 与 expert parallelism 组合。
• 空 DP/EP shard 使用一致的 synthetic-token metadata 参与 collective，避免各 rank tensor length 不一致。

定位过程中遇到的问题与解决方法

为什么删除 launch fence

旧实现假设下一层 host launch 会改写共享 KFC context，因此在同一通信资源的连续 MegaMoe 调用间记录 event，并在下一次调用前等待。

算子侧确认 KFC context 支持跨层复用。代码检查也表明 context 仅在资源初始化时写入，forward 只读传递 context tensor。受控实验进一步验证：

• 同一 binary 下，fence 与 none 的 579 smoke 全文 hash 相同；
• fence 的 24 个并发短输出一致；
• 两个独立冷启动的 none 服务共 48 个并发短输出一致；
• 删除 fence 后的两个正式 binary 再完成 48 个并发短输出，仍全部一致。

因此 fence 不是精度修复。删除它同时去掉每层 event 记录、下一层 event wait 和同 communicator 的 host launch 串行化。本文不据此声明具体性能增益，性能数字仍应由独立 profiler/benchmark 给出。

代码改动规模与分布

当前 PR 相对 main 修改 37 个文件，新增 3283 行、删除 15 行，净增 3268 行。

依赖关系

1. ops-transformer !8966，commit 2d281a246f438d026b277319b3126ba430f9ae8a：提供 A3 MegaMoe intermediate_hidden=512 的 host tiling 支持。
2. torch-npu-ops #2，commit 21cab2b6af14f18f56b7453024319065c8fb9764：修复多 worker 首次懒注册竞态。本 PR 的 gitlink 已固定到该 commit，应先合入 doc: update readme acknowledgment. #2。

本接入不依赖 xllm-ops 的 DispatchFFNCombine 修改。

验证环境

验证结果

聚焦测试与构建

• MegaMoe policy、runtime、ACL contract、通信资源和空 shard metadata 聚焦测试通过。
• ops-transformer MegaMoe op-host RED→GREEN：修复前 A3 512 shape 失败；修复后 12/12 通过，且 A2 仍拒绝 512。
• build-gate3 正式 xLLM binary 增量构建通过；最终构建只重编 Triton adapter 的直接依赖并重链接 xLLM，未重复大范围产品构建。

KernelRegistry RED→GREEN

EP8 服务级验证

上述属于针对 MegaMoe 跨 rank 随机 token 和首次 kernel 注册竞态的服务级集成回归，不等同于完整 CEval/GSM8K 分数评测。

PR 范围

本 PR 只提交 MegaMoe 接入、EP/DP 适配、通信资源管理、ABI/shape 校验和精度相关运行时修复。机器相关权重加载适配不进入本 PR。